На счетчике 5 ти амперном подключеном через тры тока самоход. Отключаю нагрузку а он зараза все равно крутиться.
Грешил на счетчик но он оказался в порядке.

Подскажите, что за ерунда может быть и как с этим бороться?

Никак. Этот самоход, помоему, конструктивный и оговорен в паспорте.

Уравнение с двумя неизвестными , если счётчик - исправен, то остаётся тр-р тока , или "утечка" в клеммной коробке

У всех механических счётчиков - есть явление самохода, у одних "+", у других "-".
1. Не отрегулирован КОМПЕНСАТОР ТРЕНИЯ.
2. Ослабление намагниченности тормозного магнита.
3. Нарушена регулировка фазового сдвига при cosф=0.
и ещё "пяток" чисто электрических неисправностей и погрешностей, обепечивающих явление "самохода", при наличии напряжения в параллельной обмотке и отсутствии нагрузки в последовательной обмотке.